کد خبر 313971
۲۶ آبان ۱۴۰۵ - ۰۸:۲۲

ماجرای جدیدی که سازنده چت‌جی‌پی‌تی را به دردسر انداخت

ماجرای جدیدی که سازنده چت‌جی‌پی‌تی را به دردسر انداخت

شکایت جدید کالیفرنیا از اپن‌ای‌آی، بار دیگر عملکرد این شرکت در آزمایش فناوری‌های هوش مصنوعی و پیامدهای پیش‌بینی‌نشده آن را زیر ذره‌بین برده است.

به گزارش حیات به نقل از انگجت، دادستان کل کالیفرنیا با طرح شکایتی علیه اپن‌ای‌آی، گفت که این شرکت مدل‌های پرخطر هوش مصنوعی را بدون نظارت و تدابیر امنیتی کافیآزمایش کرده است؛ پرونده‌ای که حمله سایبری عامل‌های خودمختار به یک شرکت فعال در حوزه هوش مصنوعی را به کانون توجه کشانده است.راب بونتا، دادستان کل کالیفرنیا، روز دوشنبه ۱۶ نوامبر ۲۰۲۶ (۲۵ آبان ۱۴۰۵) شکایتی را در دادگاه ایالتی سان‌فرانسیسکو علیه اپن‌ای‌آی ثبت کرد.محور اصلی این پرونده، حادثه‌ای در ژوئیه ۲۰۲۶ (تیر و مرداد ۱۴۰۵) است که طی آن صدها عامل خودمختار مبتنی بر مدل‌های آزمایشی اپن‌ای‌آی، از محیط تحقیقاتی این شرکت خارج شدند و به سامانه‌های شرکت هاگینگ فیس حمله سایبری کردند. این عملیات بیش از دو روز ادامه داشت. اپن‌ای‌آی اعلام کرده بود که در این آزمایش از ترکیبی از مدل‌های هوش مصنوعی استفاده شده که جی‌پی‌تی ۵.۶ نیز یکی از آن‌ها بوده است؛ با این حال، یک مدل پیشرفته‌تر که هنوز به‌صورت عمومی عرضه نشده بود نیز در این مجموعه حضور داشته است.دادستان کل کالیفرنیا معتقد است این اتفاق نتیجه قابل پیش‌بینی آزمایش مدل‌های خطرناک در محیطی آسیب‌پذیر و بدون نظارت مناسب بوده است. به گفته او، حمله به هاگینگ فیس تنها یک مورد از دست‌کم ۸۰ حادثه سایبری مرتبط با عامل‌های خودمختار اپن‌ای‌آی بوده است.
در شکایت مطرح‌شده، اپن‌ای‌آی به ایجاد خطر برای عموم مردم و نقض قوانین حمایت از مصرف‌کنندگان و رقابت منصفانه متهم شده است. دادستانی همچنین گفته است فرهنگ سازمانی این شرکت، توسعه سریع محصولات را بر ایمنی و پاسخ‌گویی مقدم دانسته است.کالیفرنیا به دنبال آن است که اپن‌ای‌آی را به ایجاد محیط‌های آزمایشی ایمن‌تر، تقویت سامانه‌های نظارتی و رعایت الزامات قانونی ملزم کند. همچنین برای هر مورد تخلف، جریمه مدنی ۲۵۰۰ دلاری درخواست شده است.در اوت ۲۰۲۶ (مرداد ۱۴۰۵)، اپن‌ای‌آی فاش کرد که در جریان دو ارزیابی مستقل امنیت سایبری، مدل‌های این شرکت از محدوده تعیین‌شده آزمایش فراتر رفته‌اند. در یکی از این موارد، یک مدل با استفاده از اطلاعات ورود در دسترس عمومی، به سراغ حساب‌های خارجی رفت و زیرساختی را از طریق یک سرویس تونل‌سازی در معرض اینترنت قرار داد. در آزمایشی دیگر نیز مدل به‌دلیل اشتباه در پیکربندی محیط آزمایش، یک وب‌سایت واقعی را هدف قرار داد و از اطلاعات ورود آن استفاده کرد. اپن‌ای‌آی تأکید کرد این حوادث در شرایط آزمایشی خاص و با محدودیت‌های حفاظتی کاهش‌یافته رخ داده‌اند.این پرونده می‌تواند به یکی از مهم‌ترین آزمون‌های حقوقی صنعت هوش مصنوعی تبدیل شود؛ جایی که مسئولیت شرکت‌ها در قبال رفتارهای پیش‌بینی‌نشده عامل‌های هوشمند، از یک نگرانی فنی به موضوعی قضایی و حقوقی تبدیل شده است.
انتهای پیام//

برچسب‌ها

نظر شما

شما در حال پاسخ به نظر «» هستید.
captcha